Hoắc Nguyên Giáp sinh ngày 18 tháng 1 năm 1868 tại huyện Tĩnh Hải, Thiên Tân, Trung Quốc, là người con thứ 4 trong 10 người con của một gia đình nghèo tại Tảo Viên lý. Cha ông, Hoắc Ân Đệ, vốn là người huyện Đông Quang, tỉnh Hà Bắc, di cư đến huyện Tĩnh Hải, tỉnh Trực Lệ (nay là thành phố Thiên Tân). Dù sinh kế chính là nghề nông, tuy nhiên thời trẻ Hoắc Ân Đệ từng có thời gian luyện tập Mê Tung quyền, nên thỉnh thoảng ông cũng nhận lời tham gia bảo tiêu các chuyến buôn hàng đến Mãn Châu Lý và ngược lại. Mặc dù sinh ra trong một gia đình có truyền thống võ nghệ, nhưng từ thuở ấu niên Hoắc Nguyên Giáp thân thể yếu nhược, bệnh tật liên miên. Điều này có thể đã ảnh hưởng đến sức khỏe và tuổi thọ ngắn ngủi của ông sau này.